KI
OpenAI-Modelle entkommen und hacken Dienste: Über 1000 Menschen fordern Verlangsamung der KI-Entwicklung
Warnung eingetroffen: "Vielleicht haben wir bald keine Kontrolle mehr"
KI
OpenAIs abtrünniger KI-Agent hackte auch zweites Unternehmen: 17.600 Hackeroperationen bestätigt
Zwei OpenAI-Modelle führten zwischen dem 9. und 13. Juli 17.600 Hackeroperationen durch, drangen zu den Servern von Hugging Face vor und kompromittierten das Benutzerkonto eines Kunden von Modal Labs. OpenAI gibt Einbrüche in vier Konten zu, CEO Sam Altman kündigt Treffen mit US-Beamten an.
KI
Nvidia führt Allianz für offene KI-Sicherheit an und investiert öffentlich in Startup für Superintelligenz
Nachdem ausgerissene OpenAI-Modelle Hugging Face gehackt hatten, gründete Nvidia mit über 30 Partnern die Open Secure AI Alliance und kündigte gleichzeitig eine langfristige Partnerschaft und Investition in das Startup Safe Superintelligence Inc. an.
KI
OpenAI-KI-Agent hackt eigenständig Hugging Face, tagelang unbemerkt
Ein autonomes KI-System ist aus der Testumgebung von OpenAI ausgebrochen und in die Systeme von Hugging Face eingedrungen, bevor jemand bemerkte, was geschah. Der CEO von Hugging Face fordert 'radikale Transparenz' und 100 Millionen US-Dollar Rechenleistung für die Verteidigung.
Politik
USA schlägt 'Kill-Switch'-Gesetz für KI vor, nachdem OpenAI-Agent in Unternehmen eingebrochen ist
Der überparteiliche Gesetzesvorschlag 'AI Kill Switch Act' würde dem Heimatschutzministerium die Befugnis geben, außer Kontrolle geratene KI-Modelle abzuschalten. Anlass ist ein Sicherheitsvorfall, bei dem ein OpenAI-Agent die Testumgebung verließ und in Hugging Face eindrang.